原文連結: Bill Gates獨家專訪:科技未來、AI與全球影響

我想,比爾・蓋茲先生和我花了一些時間來決定誰是偏右派,誰是偏左派。我們將坐下來,比爾・蓋茲,非常熱烈地歡迎您來到 Express Ada。這對我們來說是一個難以置信的時刻,非常感謝您來到這裡。我必須告訴您,我覺得……我覺得我無法提供一個原創的介紹,除了重複我上次見到您時所說的話,那就是——謝謝您。感謝您的慈善事業,感謝您的智慧,感謝您讓這個世界變得更美好。我們所有人因為您而更快樂,我們所處的世界也因此變得更好。此外,感謝您抽出寶貴的時間。像您這樣的人如今很難接受現場訪談,因此,萬分感謝。

全球合作的挑戰與樂觀展望

我想,我們從上次見面的地方繼續談起,那正好是兩年前在德里。上次我們交談時,比爾・蓋茲先生,我們正在慶祝全球合作。您當時表示,全球合作是我們能夠戰勝 COVID 的原因。世界團結起來,共同對抗了這場疫情。然而,兩年過去,全球合作似乎變得非常困難,您同意嗎?

我認為,我們正在經歷一個美國試圖重新審視自己在全球合作中的角色的時期。我認為,美國最終會回歸到一種稍微更加合作的模式,重新審視它在全球事務中的作為。我還要說,迫使其他國家在某些議題上挺身而出,從長遠來看,並不是一件壞事。我總體上仍然充滿樂觀,儘管烏克蘭戰爭、中東局勢動盪等事件正在製造波瀾,導致本該用來幫助最貧困人口的資源轉向軍備建設。這對人類而言是一種淨損失,因為我們不得不提高國防預算,等等。這種影響會非常明顯。例如,我們即將展開新一輪的募款,以籌措疫苗基金,而這正是基金會最重要的項目之一,也是全球在降低兒童死亡率等領域取得巨大進展的關鍵因素。因此,在接下來的五年裡,最貧窮國家的實際資金將會減少。然而,由於創新速度加快,我仍然對未來保持樂觀,並且我相信情況會重新好轉。

這真的令人難以置信,您依然這麼樂觀。每當世界面臨看似無解的危機時,您總能找到解決之道。例如,我們面臨二氧化碳排放問題,您創辦了一家公司,能夠從地球上吸收二氧化碳。我們還有一個問題,那就是全球使用最廣泛的人工材料——水泥,它的碳排放量極高,占全球 8% 的排放量。而您創辦或資助了一家生產環保水泥的公司。在核能領域,您找到了一種安全的解決方案。您是如何保持樂觀的?畢竟,我們仍然面臨全球氣溫升高 2°C 的趨勢,對吧?您如何看待這個問題?

嗯……如果看看自然災害造成的死亡人數變化,你會發現,科學家們對於氣候變遷將如何影響風暴的頻率和強度仍有一些爭論。假設氣候變遷確實會增加風暴的頻率和強度,但結果可能不像大家想像的那麼糟糕。然而,無論如何,我們可以觀察到,在富裕國家,因自然災害死亡的人數已經減少了 90%。這是因為這些國家建造了能夠抵禦龍捲風的基礎設施,並建立了預警系統,使人們能夠及時撤離。因此,我們的根本目標依然是促進經濟增長並加速創新。即使氣候變遷帶來挑戰,特別是對於赤道附近的貧窮國家而言,整體人類福祉仍在不斷改善。我們無法達成 1.5°C 的升溫目標,甚至不太可能限制在 2.0°C 內,但如果氣溫上升到 2.1°C 或 2.2°C,也不會發生世界末日。

關鍵在於,我們應該努力幫助那些並未造成這場問題的國家,讓它們免於面對最嚴峻的環境條件。我們不僅在減緩氣候變遷方面進行創新,在適應氣候變遷的領域也有很多突破,例如能夠承受更高溫度的農作物,以及預警系統,使農業更加高效,即便遇到災年,也能有足夠的儲備糧食和緩衝機制。因此,儘管氣候變遷確實是一個我們需要應對的重要問題,但在這種創新步伐下,我們仍然能夠控制局勢,不會讓情況變得災難性地失控。

發展中國家角色:能源轉型與印度潛力

您是否感到驚訝,發展中國家在履行氣候承諾方面的表現竟然優於發達國家?

其實,發展中國家一開始的承諾並不多,這一點值得關注。令人遺憾的是,提供更多能源和減少碳排放這兩個目標似乎陷入了衝突。在短期內,為貧窮國家提供能源帶來的好處是非常顯著的,即使這些能源來自化石燃料,如天然氣,甚至是燃煤發電。然而,隨著技術的發展,當我們能夠以極低的成本提供太陽能儲能、核能裂變或核聚變時,這種情況將會改變。

有很多很棒的事情正在發生,只是不像我們希望的那樣快速。例如,儲能技術的突破,目前有許多不同的方法正在研發,我也投資了一些項目,我相信其中一種方法最終會成功。而核聚變的成本一直過於高昂,因此現在我們需要全新一代的技術。而核聚變目前尚不存在,但我認為到了 2030 年代末,我們應該能夠將其發展為一種低成本的解決方案。

那麼,您是否認為發展中國家可以做得更多?因為至少在印度,我們的感覺是我們已經做得相當不錯了。

是的,雖然可以爭論說最初的承諾並沒有那麼高,但印度承諾到 2030 年將達成 50% 的可再生能源佔比,而且不依賴補貼,這一點似乎正在按計畫推進。這是件好事,不過印度的碳排放仍將上升,畢竟印度所需的能源數量非常龐大,電力需求將是目前的五倍。而這正是令人興奮的地方——越早實現這一點越好。我們當然希望能夠將碳排放量降到最低,這也是為什麼您剛才說的完全正確。印度的可再生能源發展速度非常驚人。目前,中國是全球安裝可再生能源的領先者,而印度應該已經接近全球第二。時間對我們有利,因為太陽能的成本還沒有降到最低,未來還會進一步降低。問題在於,對於發展中國家來說,何時能夠完全取代燃煤發電?在接下來的 10 年裡,這些國家還會增加多少燃煤發電?何時燃煤發電的增長會達到頂峰並開始下降?我們原本希望中國的燃煤使用已經達到峰值,但儘管中國在能源轉型方面已經走得更遠,他們仍然在增加燃煤發電。

美中關係與科技競爭

但我們經常聽到中國在綠色能源等領域的各種進展。我們不斷討論這些話題,您能否向我們介紹一下中國正在做些什麼?有哪些值得我們關注、學習或借鑒的地方?

中國能夠發展出深厚的研究能力,這主要歸功於他們擁有非常強大的大學體系。印度在某些領域也正在朝這個方向發展,例如電子產品、電池以及太陽能發電技術。然而,在這些領域,中國目前仍然領先。這種領先地位並不容易達成,但印度正處於快速發展階段,因此在製造廉價太陽能電池板和電池方面,印度可以借鑑中國的成功經驗,甚至有機會超越中國。不過,中國確實是這些領域的先驅。全球最大的遺憾之一是美中緊張局勢導致許多國家無法充分利用中國的技術與產品。例如,在電動車領域,美國對中國進口車輛徵收了高額關稅,因此中國的電動車在美國市場上幾乎沒有機會。

全球援助、慈善事業與印度角色

那麼,美中關係的緊張,以及如果我可以用這個詞的話,美國在全球事務上的「退縮」,是否對全球產生了影響?不只是美國,英國的國際援助預算也大幅縮減。您是否因此感到更大的壓力,或者說,這是否促使您比以往更加努力地推動您的事業?

我已經承諾會捐出我所有的財富。因此,當有人問我:「您能填補美國政府削減的國際援助資金缺口嗎?」我的回答是否定的。我已經將所有財富投入到全球健康等議題上。這是一個很難讓捐助者接受的理由,因為當我告訴他們:「這些富裕國家提供的援助減少了,現在輪到你們來補足這個缺口」,數據往往無法支持這種做法。全球的對外援助總額約為每年 2400 億美元,而如果我們把慈善捐款計算進去,來自富裕國家流向發展中國家的慈善捐款甚至不到這個數字的 10%。其中相當一部分來自我們的基金會。雖然我熱愛所有慈善事業,但事實上,大多數慈善捐款都停留在財富創造的國家,而非流向其他國家。

在印度,我完全能理解這種情況,因為這裡仍然面臨眾多挑戰。也許再過 10 到 15 年,我會來到印度,對印度的慈善家說:「你們應該開始向非洲捐款了。」但現在,我還需要 10 到 15 年的時間,才能夠一本正經地說這樣的話,並讓它變得有說服力。(笑)這當然是一句玩笑話。

不過,您能否談談您對印度未來在全球事務中所扮演角色的願景?

正如我所說,我希望並認為這些援助資金最終會回升。因此,我不認為發達國家的退縮是既定的事實。例如,英國的對外援助預算從 GDP 的 0.5% 降至 0.3%,部分原因是他們感受到提升國防預算的巨大壓力。不過,他們仍然承諾未來會回到 0.7% 的水準。如果你相信 AI 將提升生產力並促進經濟成長,那麼我希望這也意味著像英國這樣的國家,在經濟受惠後,能夠有足夠的財政空間回過頭來增加對外援助。畢竟,這筆資金僅佔其政府預算的不到 1%。

當我與各國政府對話時,我會問他們:「作為一個富裕國家,你是否願意拿出 1% 的政府預算來幫助世界上最貧困的國家?」在我看來,人類最基本的道德觀念與同理心並沒有消失,我們應該可以達成這個目標。當我們詢問選民時,他們通常以為 5% 到 10% 的政府預算已經用於對外援助,當我們進一步問:「那你覺得這個比例應該是多少?」他們會說 2%。這時我們就會告訴他們:「如果達到 2%,那將是目前規模的兩倍以上,讓我們一起努力達成吧!」這也顯示了人們對預算規模的誤解,因為他們往往認為這筆資金遠大於實際數字。

印度的創新亮點:DPI、疫苗與研發

如果要舉例說明印度在國際事務上的貢獻,最好的例子可能就是 數位公共基礎建設(DPI, Digital Public Infrastructure)。印度有許多優秀的人才投入這一領域,政府(尤其是總理)也給予了強力支持,這確實是一項了不起的成就。無論是在銀行業、政府福利發放、金融交易,還是為新創企業提供發展平台等方面,印度的 DPI 都發揮了關鍵作用。這套基礎設施允許保險、股票交易等各類企業在其上開發應用,幾乎每次我來印度,都會遇到更多新創公司在這個領域加速發展。

印度在疫苗領域的貢獻也是顯而易見的。自 21 世紀初以來,血清研究所(Serum Institute of India) 與 Bharat Biotech 等公司已經成為全球疫苗生產的重要支柱。蓋茲基金會在這方面與印度企業進行了深入合作,幫助他們發展至今天的規模。目前,全球超過 60% 的疫苗來自這些公司。不過,除了疫苗之外,印度過去在其他領域的國際影響力相對有限。但如今,印度正在成為全球創新的重要來源,無論是在診斷技術、AI 在農業領域的應用、生物肥料、改良種子、動物疫苗、動物遺傳學等方面,都取得了顯著進展。這些技術不僅能解決印度本土的問題,也能對全球帶來正面影響。

蓋茲基金會 也希望在這些領域發揮作用,就像我們在 DPI 領域所做的一樣,幫助其他國家發展相關技術與專業知識,促進所謂的「南南合作(South-South Partnerships)」。這是我此行的第四天,我離開時感到非常振奮,因為印度的創新速度比我預期的還要快,這是個極為振奮的趨勢。

為何選擇在印度舉行全球董事會會議? 印度一直是我們基金會在美國之外的最大辦事處。如果從純粹的數據來看,在兒童生命救助方面,我們與印度政府及其他夥伴的合作成效最為顯著。與 21 世紀初相比,印度 5 歲以下兒童的死亡率已經降低了三分之二,這是一項了不起的進步。

我們成立了一個名為 GAVI(全球疫苗與免疫聯盟)的組織,專門用於採購疫苗。我們也幾乎完全資助了印度本土的新疫苗開發,使這些疫苗的成本降至極低,以確保它們能夠普及到最貧困的兒童。例如,羅他病毒(Rotavirus)疫苗 就是一個成功案例。這款疫苗最初由 Raj Biotech 開發,後來 Bharat Biotech 以低價生產並推廣至全球,如今已經拯救了數百萬條生命。

此外,印度的 R&D(研究與開發) 預算正在大幅提升,並且其中很大一部分將投入營養與農業生產力等領域。因此,我們的合作不再只是資助疫苗或其他產品的「交付」,而是進一步拓展至「研發合作」。過去,我們的基金會曾是全球營養研究的重要資助方,而現在,印度將在這方面發揮更大作用,我們也將深化與印度的 R&D 合作,推動全球創新。

現在,由於印度政府的財富增加,這些問題已成為優先事項,其中許多營養研究都是雙方共同進行的,並且我們已經取得了非常出色的成果。因此,在這個充滿動盪的時代,如果想要尋找希望,印度無疑是一個很棒的地方。因此,我們的董事會成員來到了 Bangalore,當然也去了 New Delhi,剛剛在那裡待了幾天,現在正準備繼續參訪,了解當地正在發生的各種發展。

你剛才提到這是一個充滿動盪的世界,那麼你認為印度相對而言是一個穩定的國家嗎?它是否是一個穩定的地方? 印度在財政上一直保持負責任的態度,儘管你們有債務和貸款,但對外部資金的依賴並不大,這是一件好事。回顧過去,印度曾經是全球重要的援助接受國,但隨著經濟成長,印度已基本上擺脫了這種身份。當然,目前仍然存在一些具有催化作用的計畫。例如,我們的基金會已在印度投入超過 40 億美元 的補助,並且我們將在未來數十年間繼續提供支持。不過,這些資金的用途將有所轉變,從過去的資助項目交付,轉向資助創新,這通常是與政府及印度不斷成長的慈善家群體共同合作的。這些慈善家的能力正在以相當快的速度增強。

那麼,印度與美國之間的合作情況如何?能否談談印度政府與基金會具體如何協作? 因為在當今這個動盪時期,全球對外來基金會的態度似乎比以往更加懷疑。然而,你們在印度受到各州政府的高度歡迎,無論執政黨是誰,中央政府也與你們保持良好合作。你們是這方面的特例,不僅僅是在印度,全球許多地方對外來基金會的態度都變得更加謹慎。你是否注意到這種趨勢?為什麼你們能成為例外?

印度政府設立了極具雄心的目標,包括降低營養不良率、降低兒童死亡率、提高農業生產力,以及改善教育。而 Gates Foundation(蓋茲基金會)並不會試圖改變這些目標,而是提供協助。例如,我們認為低成本的 輪狀病毒(Rotavirus)疫苗、肺炎鏈球菌(Pneumococcus)疫苗,或者每劑 2 美元的結核病(TB)診斷技術,都能發揮關鍵作用。

以 診斷技術產業 為例,在疫情爆發前,這個行業在印度幾乎不存在,發展相當有限。但如今,印度已經擁有許多優秀的公司,正在推動這一領域的快速發展。我們也在支持這類高目標計畫,例如低成本的結核病診斷技術,我毫不懷疑,最終幫助我們實現這一目標的將會是印度的合作夥伴,因為我們已經為這些公司提供了資金支持,幫助他們推動相關技術的進步。

此外,我們是一個高度技術型的組織。今天我與 Maharashtra(馬哈拉施特拉邦)的首席部長會面,儘管這個邦經濟發達,但某些地區仍然存在瘧疾問題。我們擁有全球最頂尖的瘧疾專家,因為瘧疾並不是一個能夠帶來盈利的領域,商業公司對其興趣不大,因此我們幾乎是唯一能夠提供技術支持的組織。我們與政府討論了如何應對這個問題,包括如何在部落地區和城市區域推動防治措施,以及有哪些新工具可以用於消滅瘧疾。我們希望從這個邦開始,最終讓印度成為全球首批成功消除瘧疾的國家之一。此外,這些技術同樣適用於登革熱等其他蚊媒傳播疾病,這讓我們對未來的發展感到非常興奮。

由於我們是一個技術導向的組織,並且拯救兒童生命並不具爭議性,因此我們與政府的合作通常沒有受到太多阻礙。我認為,一些基金會雖然真的想要幫助社會,但仍會引發人們的警惕。這種警惕程度或許比應有的高了一些。不過,由於我們的策略是專注於技術,並遵循政府的優先目標,我們並不會告訴政府應該設定哪些目標,這使我們能夠建立良好的合作關係。我也不確定如果我們試圖影響政策,政府是否會接受我們的建議,畢竟我們從未這樣做過。

你剛才提到印度的慈善家們已經成為重要的支持者與合作夥伴。你也提到當今世界正處於不確定性之中。那麼,在這樣的時代,吸引慈善資金是變得更容易了,因為人們的同理心增加了?還是變得更困難了,因為人們更傾向於保留資產以確保安全? 如果世界陷入全面混亂,比如 第一次世界大戰或第二次世界大戰 那樣,那麼要通過慈善募款將變得極為困難,因為人們會選擇保護自己的資產。然而,儘管當前的新聞報導可能令人擔憂,世界實際上正在變得更加富裕。舉例來說,與過去相比,如今兒童死亡率已經下降了一半,這是一個驚人的進步。

人們的壽命變得更長,女性的待遇也有所改善。然而,由於我們過於關注新聞標題,總是聚焦於問題,因此很容易忽視整體的進步。事實上,現在是有史以來最好的時代。任何想讓時光倒流的人,這樣的想法是不符合歷史發展趨勢的。在過去 200 年間,人類的平均壽命翻了一倍,識字率從 5% 提高到了 90%。然而,人們往往難以退後一步來看整體的進步。

即使是像肥胖這樣的問題,如今也已經出現了一類新型藥物。雖然這些藥物仍處於早期階段,目前價格過於昂貴,還需要進一步的改進,但隨著專利到期,這些藥物最終將變得更加普及。我敢打賭,我們在印度的一些合作夥伴將會使這些藥物廣泛可及,就像當初對待疫苗或 HIV 藥物一樣。解決肥胖問題,即便對印度來說都是一件大事,對美國來說更是如此。

我的問題其實是,你是否認為當前的不確定性來自於經濟層面?舉例來說,如今 1 兆美元 的公司似乎都顯得不夠大了,市場上的企業不斷突破 10 億美元估值,甚至達到 3 兆美元,這讓人們想要緊抓住自己擁有的一切,持續追求成長。當你與慈善家交談時,他們會表達這種心態嗎?還是他們會說:「好吧,我已經達到了 10 億美元,現在我可以捐出一半的財富了。」這種**「足夠了」**的觀念,是否比過去更加普遍?

我認為,那些透過科技致富的人,往往更能理解他們不會將企業傳承給子女。有些人甚至認為,即使將財富傳給子女,也不一定是最好的選擇。當然,科技行業之外也有許多了不起的慈善家,但科技行業的慈善文化之所以發展如此迅速,部分原因是科技界對慈善的基本期待值本來就很高。舉例來說,Azim Premji 展現了令人難以置信的慷慨,他的行動也影響了其他人,使他們願意遵循這一模式。因此,全球的慈善事業正在迅速增長,人們在慈善方面變得更加有策略性。他們更願意思考:「有哪些試點計畫可以讓政府進一步擴展?還有哪些尚未實現的創新?如果我資助這項計畫,是否能產生極不成比例的巨大影響?」

人工智慧的革命:潛力、衝擊與未來

現在造成不確定性,並且讓許多商界人士感到心神不寧的另一個因素,就是人工智慧(AI)。坦白說,我對這個話題並沒有什麼獨特的問題,但我從來沒有得到讓我滿意的答案,所以我想向你請教一些關於 AI 的問題。首先,我們到底該有多擔憂?這場關於「人類 vs. 技術」的辯論將如何發展?

這是一項深刻而重大的技術進步,最終將大幅改變我們生活的各個方面。我曾參與過的一場技術革命,是將計算從極其昂貴變為幾乎免費。我小時候,聽說有一台可以在夜間使用的電腦,我會毫不猶豫地溜進去,只為獲得使用機會,因為當時電腦極度稀缺。然而,如今個人電腦每天可能只使用幾個小時,但我們卻不會覺得這是多麼低效的事情。

現在,我們所面臨的稀缺資源是智慧。優秀的醫生、頂尖的工程師,甚至是接聽客服電話的人員,都屬於稀缺資源。人工智慧有潛力解決這個問題。我們當然還需要在可靠性方面進行大量研究,而這是 AI 最具挑戰性的問題之一。但即便如此,AI 的發展速度仍然快得驚人。如今,AI 已經能夠解決極其複雜的問題,雖然不是所有問題,但已經涵蓋了相當多的領域。而且,它們的能力已經超越人類,只是因為它們尚未達到完美的可靠性,所以人們仍然在思考應該如何應用這項技術。

我認為,只要方法得當,這項技術將在醫療與教育領域迅速普及,未來幾年內就會帶來巨大變革。我今天在印度與許多先鋒人物會面,他們正在這些領域積極推動人工智慧的應用。

無論時間範圍如何,當能力和可靠性完善時,你將進入一個創造藥物、撰寫提案或打電話銷售的世界,那些都只是軟體,智能將是免費的。因此,你將不再面臨教師短缺或醫生短缺的問題,會有無限多的醫生專業知識,以及無數的優秀家教,這些家教是個性化、鼓勵學習動機的。這當然是很棒的,但那麼工作會從哪裡來呢?但工作不是我們天生就該做的事,工作其實是稀缺的產物。你知道,當時大家會想「天啊,必須有人當農民,必須有人開那些卡車。」所以,很難想像這樣的未來,因為整個市場系統、定價機制,甚至教育方式,都是基於創造人類智慧來提供各種服務的需求。

當你不再需要依賴這些來運作的時候,你會擁有更多的閒暇時間,而這也會帶來一個哲學性問題,那就是「那麼,生活的意義呢?」感覺意義。嗯,在這樣一個沒有短缺的世界中長大的人,將不得不思考這些問題。我覺得對任何人來說,這都不容易,像我這樣在短缺的世界裡待了70年,真的很難把大腦重新編程來適應這種改變。

在印度,有五億人年齡在25歲以下,他們正在接受教育,大多數人希望接受教育,並將進入勞動市場尋找工作。你認為這不會被人工智慧擋路嗎?你認為社會將能夠達到一個輸出水平,例如食物、醫療建議,這不需要每個人像現在這樣工作,將會有選擇。我的意思是,我們可以說機器不應該幫助某些事,我們可以把它們限制在某些領域,如果我們選擇這麼做的話。但人們思考工作的原因是因為短缺。即使是這樣的一個框架,來思考世界,也不再是正確的思維方式。

關於人口問題,你有沒有在心中建立一個關於世界理想人口數量的公式,或者是任何一個國家應該有的理想人口數量?不,我認為這取決於個人層面,最終人們會決定自己想要多少孩子。你知道,每當在自上而下的方式強制推動這件事,這基本上就是一種侵入性。不是的,但如果人口減少,排放量會減少,但如果人口減少,經濟又不會增長,然後你又會鼓勵移民,然後到某個時候,這就成了政治問題。所以,人口問題似乎是一個我們還沒有非常確定的問題。你推薦的書,Hans Rosling 的《Factfulness》很明確地指出,提供越多教育,人口增長就會越少,生育率會下降。

人口問題不會成為行星容量的問題,我們將通過創新,擁有遠低於最大行星容量的人口。因此,這不是決定人口的因素,人口將由人們的選擇來決定。清楚的趨勢是,國家越富裕,生育率就越低。我們有一些極端的例子,南韓 的生育率非常低,甚至中國,人口的減少每年都在發生,印度的增長也沒有那麼大。印度某些地方的確會出現人口縮減,尤其是在南部,然後在北部。因此,雖然人口增長,但增長率實際上是非常小的。

美國是個特殊案例,因為移民的問題,非法移民在美國人口不會縮減的預測中扮演了重要角色。但要維持這樣的情況,必須有一個水晶球來預測移民趨勢。因此,在你心中並沒有一個理想的百分比數字,或者說不管發生什麼,世界將會吸收這一切。

不,我不認為我在這方面有任何角色可扮演。不,不是角色可扮演。好的,好的。但是,我想我明白你的意思,也就是說,人口目前並不是一個核心關注點。嗯,而且 Gates Foundation 在避孕方面做了很多工作,因此如果一個家庭選擇延遲生育或限制生育數量,我們會確保這些工具是可用的。我們正在降低各種避孕措施的成本,但所有這些都是自願使用的。

AI 對印度的影響與發展路徑

我最後再問一個關於 AI 的問題,然後我們就進入一個希望會很好玩的遊戲。印度在 AI 方面做得正確嗎? 或者應該說,印度應該如何正確地發展 AI?我認為印度在 AI 方面做得正確。印度對 AI 的使用,主要是將 AI 應用到各個領域。目前這些基礎模型的最新技術,大多數都是開源的,也都是公開發表的技術。因此,即使許多偉大的 AI 研究來自美國和中國,沒有人真正落後。你可以拿到最新的模型,也許在基準測試上落後幾個月,但這些技術都是可獲取的。你可以使用這些技術來確保 印度本地語言 得到支持,或者當印度農民想討論農作物時,數據質量和對當地方言的理解能夠達到高標準。同樣,你可以拿來運用在國防能力上,因為這些技術完全開放,所以沒有所謂的「落後」。

當我與這裡的人交談時,雖然有些人希望能夠為基礎技術做出貢獻,但大多數人看到的是將 AI 應用於特定領域的機會。至於「爭奪晶片」或「在印度建立自己的晶圓廠」,這是否值得我們投入時間和精力?如果 印度 能夠在晶片產業具有競爭力,那麼當然值得投入。但如果只是無限期地補貼一個晶片產業,那我覺得這是不值得的。美國 可能會選擇這樣做,因為如果你需要晶片,而你擔心自己已經惹怒了所有其他國家,導致他們不願意提供晶片,那麼你可能就必須這麼考慮了。而美國擁有足夠的資金,可以將其視為一個投資選項。

印度應該進入晶片產業的理由應該是:它能夠具備競爭力。最初,這可能不會是最尖端的晶片,但隨著時間的推移,印度總能趕上最前沿的技術。而你認為 印度有能力並且將擁有足夠的電力來支持這一切嗎? 因為 AI 需要大量電力。我從一位朋友那裡聽說,每次 ChatGPT 搜索都會消耗相當於 10 部 iPhone 的電池電量。所有這些 AI 活動所需的額外電力負荷,可能會達到 全球電力需求的 10% 到 15%。

不過,這還沒有電動車消耗的電力多,因為隨著電動車普及,它的用電量將會更高。如果我們改用電動熱泵,那麼其用電量也會比 AI 更高。如果我們在水泥和鋼鐵生產中使用電力,這也會比 AI 需求更大。當然,AI 仍然需要大量電力,但相比於 印度為實現 2047 年發展計劃所需增加的基本經濟增長用電量,這些 AI 所需的電力並不算太多。此外,AI 的電力需求主要來自於一些願意購買清潔能源的企業。因此,如果你告訴這些企業「我們要增加燃煤電廠」,他們可能會反應說:「呃,也許我們應該多投資核能。」這些企業願意支付一定的「綠色溢價」,以確保自己的能源來自清潔來源。所以,我不認為這會對電氣化構成重大阻礙。

此外,AI 系統究竟需要多少電力來運行,仍然存在極大的不確定性。人類大腦用來運行自身所需的能量其實很低。而目前的 AI 模型在認知效率上,仍然比人類大腦低 10,000 倍。但進化已經證明,有一種方法可以在消耗極少能量的情況下完成這些任務。所以,在未來 10 年內,我們能將這 10,000 倍的差距 縮小多少呢?

如果這一切進展順利,那麼很多人預測這些龐大的資料中心將不再是必需的,但這很難說,沒有人願意成為那個做出這個假設的人,然後結果卻發現自己沒有足夠的資料中心容量來應對。

你知道,Google 必須站在這場競賽的前沿,Microsoft 也是,許多公司都在爭奪領先地位,完全明白效率會提升,他們可能會有過剩的產能。他們可能會,許多行業,你知道,汽車產業在變得流行後就出現了過剩的產能,互聯網帶寬也是,雖然後來我們終於能夠使用它,但我們也經歷了過度建設的情況。所以,在那些行業爆發初期,我們通常會遇到過剩產能的情況。

這是非常典型的,但就像說市場會下跌一樣,你永遠不知道何時會發生。你知道,這過剩的產能會在三年後、十年後還是十五年後出現?如果你的公司因為你等待那個時機而倒閉,那就不是一個好計劃。而且,效率的提升並不是來自舊有的公司,效率和運營的提升來自中國。這有點不對,總的來說,大多數創新來自那些擁有巨大研發預算的現有公司。當有一些出乎意料的人來進行創新時,人們會注意到,但你知道,在提升晶片技術的歷史上,Intel 做了大部分的改進。

現在當像 Nvidia 這樣的新興公司出現,或者說 Intel 在某些程度上迷失了方向時,這是非常值得注意的。但如果你把創新看作一個整體,實際上大部分的創新發生在 Google、Microsoft、OpenAI 這些公司裡,甚至 OpenAI 現在更厲害了。沒有人看到這些深度學習公司,甚至在中國,人們會想,「那是誰?」這不像是某個政府資助的人或者某個主流公司。現在,Alibaba 的模型也很好,ByteDance 的模型也很好。所以即使在中國,深度學習也並不算非常罕見,但他們確實做了一件非常非常聰明的事情,他們展示了他們所做的聰明事情。

所以,你知道,他們在基準測試中領先了多久?

至少兩週。嗯,太棒了,他們可能再次領先。這是創新的速度和創新的開放性,我從來沒有見過像這樣的情況。我的意思是,這些數字簡直令人難以置信,簡直不可思議。

快問快答 & 觀眾提問

好的,接下來我們將進行一個簡短的遊戲,快速回答。請儘量簡短回答。

接下來,我將給你一個主題,你必須告訴我你認為它的未來會是怎樣,還有應該是怎樣。好的,那麼,億萬富翁和政治家之間的友誼會是怎樣的未來,應該是怎樣的未來呢?

你知道,政治家歷來和有錢人交往,像 Franklin Roosevelt 就是一位非常重視公平的總統,做了很多事。他和富人交往,和創業者交往,看到問題,做了很多這樣的事情。所以,我不認為這是一種罪過。如果你不小心的話,當然會有腐敗的問題,或者忽視國家的優先事項,但聽取商界人士對未來的看法,聽他們談論什麼能讓他們更快行動,這是一個重要的對話。當我創辦 Microsoft 時,我為自己沒有在華盛頓特區設辦公室而感到自豪,但我後來學會了後悔。那是一個錯誤。

好的,那麼家庭的未來會是怎樣的?應該是怎樣的?

我不確定這會有太大的改變。你知道,擁有孩子是一件奇妙的事,擁有孫子孫女也是一件奇妙的事。嗯,我告訴你我為什麼問這個問題,因為在你的書 Source Code 中,你講了一個很美麗的故事。你說過,你一生中寫過的最好的一段程式碼是你寫的第一段程式碼,你是在一條雪覆蓋的小路上漫步時,心中寫下了程式碼,到今天那段程式碼仍然是你寫過的最好的程式碼。如今,所有的技術都掌握在每個人手中。

越來越難以期望孩子們能夠走進這些偏僻的道路,並且可能會自己寫出那樣的程式碼,你知道,怎麼樣,怎麼樣,怎麼樣,父母怎麼樣給孩子們這些雪地小徑的時刻,這些對你來說發生過的時刻呢?

嗯,我的父母實際上在設立非常高的期望和給我很多自由方面找到了不錯的平衡。在那個時候,在美國,你知道,你可以出去玩,父母未必知道你在哪裡,你可以去遠足,對吧?

今天我不知道在印度情況如何,但今天在美國,人們有這樣的擔憂,嗯,如果稍微有點不安全,你就會對你的孩子過於保護。

現在我認為有一種認識,就是這樣做可能已經過頭了,讓孩子和其他孩子一起玩,讓他們犯錯,甚至讓他們自己陷入一些困境,我認為我受益於這一點。嗯,好的,真理的未來會是怎樣的,應該是怎樣的?

嗯,我曾經天真地認為互聯網的到來會是最美妙的真理時刻,你知道,你可以去查找,某人告訴你正在發生的事情,然後你可以查出來,說「不,那是錯的,我們查過了,這是法院的文件,這是統計數據。」

嗯,閱讀哈拉里的最新書籍 Nexus 真的很有趣,他說,我肯定他是對的,當印刷機被發明時,最受歡迎的書籍是如何尋找和殺死巫婆的書。所以這是社會利用這個,現在我們回過頭來看這件事,說「對,印刷機,這真是一個了不起的發明。」

所以,認為在有意義的時間段內,它將會對人類利益產生負面影響,我覺得這是很有趣的,但我知道,直到社交網絡的出現,它創造了嫉妒和擔憂,我一直認為技術是純粹的好事。你可以使用文字處理器或者電子表格,所有這些東西,在那些早期的日子裡,它不曾被質疑。事實上,當人們問「技術有什麼問題?」的時候,答案是它還沒有普及到所有孩子手中,那就是所謂的數字鴻溝,我們需要讓每個人都能夠使用技術。嗯,好的,硅谷和華盛頓特區之間的關係未來會是怎樣的?嗯,政治家們將會在人工智慧方面遇到難題,因為他們不太親身參與,而且它的發展速度非常快。

2024年的選舉,人工智慧並不是辯論的一部分,不是說「這位候選人有很好的人工智慧政策,而那位沒有」,或者有任何對比,我對此有點驚訝,但我預測到2028年,我們下次總統選舉時,人工智慧相關的政策,如何以正確的方式塑造它,將會成為主要議題之一,將是最重要的三個議題之一,因為人們將開始看到,不僅是白領的人工智慧,還有藍領的人工智慧,這涉及到機器人技術,現在這方面的發展仍然非常有限,但這方面的工作人員數量以及技術的進步,保證了,如果不是2028年,那麼到2032年,勞動市場將開始改變。無論是好是壞,硅谷和華盛頓之間的關係,我會說是好的,因為我喜歡說些好話。

嗯,好的,品牌印度的未來會是怎樣的?

印度的品牌,嗯,你知道,沒有人對印度感到反感,印度,嗯,印度有很多偉大的人,你可以在世界各地遇到偉大的印度人,像 Satya Nadella 這樣的人,嗯,很多人對印度了解不多,嗯,老實說,我知道他們應該多來了解,還有很多偉大的事情他們可以做,嗯,如果印度能夠保持這條道路,這條2047計劃,這不僅對印度有益,對整個世界都有益。

事實上,你擁有20%的人口,運行著,嗯,半有序的,但真正民主的選舉,並解決所有優先事項,你知道,更多的資金用於健康,更多的資金用於教育,關於我們在哪些方面短缺的指標,你知道,哪些是我們需要做得更好的區域。事實上,競爭真正是在良好的治理中,而不是「A組將優於B組」,嗯,你知道,如果你回到印度政治的早期,確實有很多「A組將優於B組」的情況,但隨著選民的增多,選民會投票問「這個人能否真的運營這個國家,包包括像健康這樣的事業」,這創造了一個非常積極的動態。

你們在良好治理方面競爭嗎?當你和總理見面時,你們有討論過這個問題嗎?

嗯,我們總是有很多事情可以討論,包括人工智慧和我們參與的最新項目。嗯,我必須說他對印度的參與非常鼓勵。他很高興聽到我們的董事會在這裡,而且我們將在印度創新方面進一步投資。

太棒了。好的,民族主義的未來會是怎樣的呢?

你知道,民族主義往往會極端化,變得有點可怕。如果你去奧運會,你會看到民族主義以一種非常良性的形式表現出來,就像在巴黎那樣,奧運會非常精彩,我有幸能夠在那裡度過一段時間,法國人對自己的隊伍表現得很好感到非常興奮,他們也做得很出色,整個氛圍也很棒。

你知道,當人們站起來為美國加油時,那並不是以其他人的損失為代價,然後你播放國歌,嗯,有些國歌並不像其他國家那麼好,但這就是民族主義的一種非常好的方式。民族主義最極端的形式會導致戰爭,沒有什麼能比戰爭更摧毀生命和價值的了。你知道,總的來說,自從二戰以來,我們並沒有發生那麼多戰爭,儘管現在,嗯,我們確實有些上升的趨勢,這是一個可怕的事情。

所以,我們必須在非洲塑造民族主義,很多非洲國家,這聽起來有點奇怪,但他們缺乏足夠的民族主義。當你告訴某人「你是X國的公民嗎?」他們會說「不太是,我是這個部落的成員。」所以,這幾乎像印度政治的極端形式,當他們去投票時,他們是投給自己部落的同胞,而不管這些人能否很好地運營初級衛生保健系統。當然,沒有問題。嗯,社交媒體還是大型製藥公司,哪個更迫切需要監管呢?

嗯,這很有趣,社交網絡,人們可以說,包括我可以說「哦,社交網絡有這麼多負面影響」,但是除了也許禁止年輕孩子在某個年齡以下使用,或者設有某些規範,避免它分散孩子們在學校的注意力之外,當我告訴人們,好吧,在不說所有疫苗都很可怕的情況下取得平衡,這樣會對人們造成傷害,這可能是一件可怕的事情。

但是,你該如何劃定自由言論與有害言論之間的界限呢?

現在當你遇到像在緬甸這樣的情況時,你知道,你在煽動騷亂,社交網絡就是其中的一部分,你知道,這顯然是偏向負面的,你只是在否定大屠殺,或者你說所有疫苗都是壞的,或者你在做一些跟追蹤人們的行蹤有關的事情,這是沒有幫助的。

但你到底該如何劃定這條界線,我們有150多個國家,每個國家都可以嘗試做這個,我不知道有哪個國家真正擁有這個偉大的公式,知道該如何找到這個平衡點。好的,我在後面收到了幾個手勢,所以我知道我們時間不多了,我們還有大約五分鐘,對吧?五分鐘?五六分鐘?

嗯,好的,那我會盡量再問幾個問題。所以我會請你回答得稍微簡短一些。好的,嗯,你最喜歡的印度創新是什麼,能解決全球性問題的那種?

哦,我必須說是DPI,DPI。好的,我的意思是便宜的疫苗,DPI,這對我來說真的是一個艱難的選擇。好的,哪個國家在晶片戰爭中會贏,會有一個贏家,一個輸家嗎?

嗯,到目前為止,台灣在製造晶片方面是贏家。有輸家嗎?

美國仍然是最先進的晶片設計所在,但你知道,這將是一個非常全球化的行業。

因為,嗯,你知道,必須給南韓一些讚揚,他們做得也相當不錯。

那麼,是否有輸家呢?

嗯,只要晶片能夠自由流通,你知道,如果發生了台灣戰爭,所有的產能恰好被摧毀,那麼整個世界將會在一段時間內面臨極大的晶片短缺。你知道,有一些令人難以置信的創新技術,可以以非常不同於今天的方式製造晶片,對吧?而且我投資了幾個這樣的公司。

這些技術距離成熟還有5到10年,但目前的機器,嗯,可能會有更好的方式來製作晶片,但這對我們的短期幫助不大。

好的,嗯,我們知道你對投資OpenAI感到興奮,但作為一名科技投資者,對於投資OpenAI,是否有任何讓你擔心的地方?

不,嗯,人工智慧普遍讓我擔心,因為人類將不得不塑造它,這是一個會感覺非常不一樣的世界,嗯,你知道,所以我一般來說會擔心人工智慧,但不,嗯,你知道,OpenAI的人做得很好,我和Sam以及Greg還有那裡的團隊合作過,你知道,他們很棒。

好的,如果民主是一個坐在桌面上使用Microsoft XP的人的話,你認為它的狀況會是怎樣?

是民主正在關閉、進入休眠,還是準備升級呢?

嗯,這些評價國家民主程度的人,你知道,二戰後我們看到了這一指標的急劇上升。

現在我們實際上看到了一些輕微的下降,我覺得這很令人擔憂,因為我們的處境更好,我們絕對,嗯,處境好多了。所以,不僅是民主的衰退,甚至對機構的信任,或者是兩極化的程度,嗯,你知道,我不是社會科學家或政治家,但我們在美國的兩極化程度,我希望我們能逆轉這個局面,對機構的信任,你知道,我們必須回去並致力於解決這個問題。這是一個奇怪的世界,在美國,選舉產生的政治家有8%的人認為他們做得很好,而在中國,未經選舉的政治家卻有80%的人認為他們做得很好。

這不是應該運作的方式,嗯,對吧?

好的,那麼,一個擁有100年歷史的傳統報紙還是25年的網紅,你更願意與哪一個交流呢?

嗯,我想我會選擇報紙。

嗯,謝謝,我非常難過的是報紙的商業模式,因為我們不再有分類廣告了,現在正面臨威脅。

如果你看美國,嗯,誰讓地方政府保持誠實呢?

是報紙,它們做得非常出色。今天,能夠真正進行調查報導的報紙數量非常有限,即使是在國家層面也大大下降,在地方層面更是急劇下降。我不知道如何填補這個空白,你知道,我希望一些慈善家決定這是他們要努力的領域,因為這對民主制度來說是一個必要的部分。

好的,嗯,我們會說一些全球挑戰,然後你可以為每一個問題給出一兩個字的解決方案。數學恐懼症,數學恐懼症有解決方案嗎?

人們不喜歡數學。嗯,哦,AI輔導。好的,電子廢料,嗯,這不是那麼大的問題,我是說隨著所有電動車和電池的到來,這不是個大問題,我們會回收它們,我是說有一些令人難以置信的公司,這太好了,嗯,你知道,如果鋰,嗯,還有其他一些如鈷的東西足夠有價值,那麼有幾種技術,我是Redwood這家公司的一位支持者,我想我們會沒事的。好的,太好了,嗯,教師短缺。

如果你往前看10年,Gates先生,你會選擇哪個經濟體來獲得更高的回報?美國、中國還是印度?

如果你說的是,哪個股市被低估,印度的股市已經在預期某些增長。我認為印度,嗯,你知道,在一個地方,爭論的是增長會是5%還是10%的時候,這是很棒的。我認為,嗯,這是非常可能的,我懷疑它會超過10%,而且你知道,我不認為它會低於5%。

這是個令人難以置信的時間段,嗯,將會有很好的機會。你知道,政府將有更多的錢用來支出於醫療保健和教育,這是因為經濟增長的結果。所以,印度正處於一個非常好的位置。

如果你真的很富有,就像美國一樣,你不會有5%的增長率。所以你知道,我們會很高興如果我們能達到2.5%到3%的增長,並且因為人工智慧,我們可能會達到這個,這真的是太棒了。

好的,如果今天你需要將你的一小部分投資組合分散到美元以外的地方,如果你被迫分散到美元以外,你會選擇歐元、加密貨幣、黃金還是人民幣?

我不會選擇加密貨幣。

嗯,那是一個簡單的選擇,我是一個眾所周知的,嗯,是的,加密貨幣的懷疑者。你知道,黃金,你知道,它現在每盎司價值3000美元,你知道,我錯過了那一波增長。所以你知道,歐元不會大幅上升或下降。我不確定,我的意思是,我認為一個由股票組成的綜合投資組合一般來說是你最好的長期選擇。理想情況下是一個全球均衡的股票組合。

好的,Gates先生,非常感謝您的時間,我看到了後面各種各樣的手勢,所以我打算停止了。非常感謝您的時間。

嗯,謝謝,我確信在座的我不是唯一一個感到非常榮幸的人,能夠聽到這些。

嗯,您願意接受兩個問題嗎?我們有時間問兩個問題嗎?

好的,只能問一個。好的,我答應Naman Pagalia,他在這裡嗎?

還有Kunal Sha,是的。好的,我們可以先把麥克風給Kunal,然後是Nan嗎?

請繼續,嗯,Cred的創始人,這是一家很棒的金融初創公司,對吧?

嗯,聽您講話真是太棒了,嗯,我有一個更哲學性的問題,分為兩部分。如果能源變得更加高效,且財富在某種程度上與能源直接相關,我們能否預期世界的千兆萬億淨資產會比沒有人工智慧和能源效率時更快地到來?這是第一個問題。第二個問題是,您對人工智慧出現後人類智慧或人類的看法有什麼感受?就像您現在對人類的看法是怎樣的,特別是在人工智慧出現之後?

嗯,我是真正的樂觀主義者,無論是視覺或是核融合,嗯,都將提供比今天的太陽能、天然氣或煤炭更低價格的能源。你知道,它有很多好處,因為它是穩定的能源,它不依賴天氣,它可以放置在任何能源需求大的地方,所以它會對全球有幫助。嗯,你知道,越快實現這一點越好。嗯,你知道,像Smeile這樣的人曾經寫過,能源與文明的發展是相互追蹤的。

關於人工智慧如何改變我們的人性,我覺得這是個重要且令人著迷的問題,現在沒有人寫太多關於這方面的東西。

你知道,Harrari的結論是,人類還沒有準備好接受人工智慧,我們應該把這個東西擱置一旁,先處理好彼此相處的問題,然後也許再開放潘多拉的盒子。但他不是唯一一個這樣說的人,許多人都這麼認為,像Google負責人工智慧的那位也說過同樣的話。

當然,如果我能親自投票,嗯,我會選擇放慢人工智慧的發展速度,但沒有人能對此投票。就像Mustafa Solomon所寫的那樣,個人、公司和國家的動機使得很難說,等一下,讓我們慢下來。

所以,我看不出我們會放慢人工智慧發展的前景。你的問題,嗯,是個很棒的問題,我希望經濟學家、哲學家,甚至包括那些思考宗教的人,能夠來一起討論,說,好的,這是一次深遠的變革,讓我們思考一下,對這個過度世界,我們應該保留哪些價值體系?

好的,最後一個問題,有一位很棒的天體物理學家在那裡,Shawan Hana。好的,他在Tifr工作,如果我們能把麥克風遞給他。Shawan,如果我可以請您把問題簡短一些,因為時間有限,謝謝您。

嗯,這是關於氣候變遷的問題,這是我非常關心的問題。所以,這有兩個部分問題,但兩部分問題是類似的。第一個問題是,這是不可逆的。我很高興聽到您認為能源轉型並不像人們想像的那麼可怕,但我仍然感覺到一種迫在眉睫的末日感。

我指的是滅絕、生物圈的減少等等,以及各種循環的崩潰,這些都可能會發生,當我們接近2°C的時候,會有一個臨界點可能會觸發這些變化。所以,這是一個問題,隨著我們接近2°C的目標,我想知道您對此的看法。但作為一個附帶問題,您認為要如何最終去除大氣中的基準二氧化碳?目前有很多技術可以減少二氧化碳,它們只是減少了極少量的二氧化碳。我們該如何去碳化大氣呢?

嗯,有各種各樣的碳去除技術,其中一些可能非常非常便宜。我的意思是,今天,我每年花900萬美元來抵消我的碳排放,這是以每噸300美元的價格來購買的。現在最好的技術能將這個價格降到每噸大約60美元。但也有一些方法可能將成本降至每噸1美元。到那時,對全球來說,這將變得非常可負擔得起,可以進行大規模的碳去除。還有一些技術,人們不太願意談論,但它們通過在大氣中放入顆粒物來減少全球變暖,這被稱為太陽輻射管理。如果你開始看到正向反饋,比如溫度方面的正向反饋,這一切都是關於溫度的。現在,我們還沒有看到這些正向反饋出現,儘管有些不確定性,是否會出現與海洋循環、甲烷釋放等有關的正向反饋。現在我們並不認為這些情況非常可能,但我們必須承認,我們對很多事情知之甚少。你知道,為什麼冰層會如此迅速地崩潰呢?在歷史記錄中為什麼會這樣?是否有針對性地干預來阻止這種情況的發生?

所以,我依然把氣候變遷列為五大問題之一,和生物恐怖主義、管理人工智慧、不發生核戰爭等問題並列。我認為這仍然是非常重要的事情,但我不認為在2.5°C的範圍內,我們會需要部署太陽輻射管理。我確實認為我們應該研究這個技術,並讓它隨時可以使用。我也認為推動那些極低成本的碳去除技術是最重要的事情之一。因此,我確保突破性技術正在資助這些項目,這將真正改變這一局面。所以我很遺憾,現在富裕國家的氣候變遷優先事項下降了很多,因為其他短期問題影響了它們。你知道,如果你試圖讓選民為氣候變遷支付昂貴的費用,通常會選出一個不關心這些問題的政黨。人們關心氣候變遷,但當你告訴他們,他們要為一輛昂貴的車或昂貴的電熱泵付錢時,他們就不再關心了。因此,創新是解決這個問題的唯一途徑。

那麼,關於您的一個陰謀理論,有沒有讓您發笑的?嗯,你知道,有人認為我認為創新可以解決所有問題。嗯,其他人可以拿我開玩笑,我也可以拿自己開玩笑。好的,這很有趣。好的,非常感謝。謝謝,非常感謝。謝謝。感謝Anand帶來這麼精彩的演講。現在,我邀請《印度快報》的總編輯Raj Kamill Ja來為Mr. Gates呈上感謝的紀念品。這是《印度快報》1955年10月28日的頭版,這正是Gates先生的生日。我請大家保持坐著。現在我請Aloc Sagel總裁兼負責人Noama來為Gates先生呈上一束花和一個紀念品。現在,我請Lok Seagar、Aim Chawan、Dr. Gurvinda Singh、Himmanshu Patil、Usha Kakur、Ramkumar等人上台合影。最後,我要感謝我們的合作夥伴,呈獻合作夥伴Noama,聯合呈獻合作夥伴Green Co,Amiti大學孟買Tapari大學,協會合作夥伴Kry Travels Gravitus基金會。請留下來,和我們一起參加雞尾酒會。